Năm 1888, hoàng đế Đức là Wilhelm I qua đời. Thái tử lên nối ngôi, tức hoàng đế Friedrich III. Nhưng vị vua này trước đó đã bị ung thư vòm họng và qua đời chỉ sau ba tháng cai trị. Con trai Friedrich III, Wilhelm II lên nối ngôi. Hoàng đế mới không đồng tình với chính sách đối ngoại thận trọng của Otto von Bismarck. Ông muốn mở rộng nhanh chóng lãnh thổ để bảo vệ vị trí của nước Đức.

Những mâu thuẫn giữa Wilhelm II và thủ tướng nhanh chóng khiến quan hệ của họ đổ vỡ. Bismarck tin rằng ông đủ sức áp đảo Wilhelm II và không chú ý nhiều tới những chính sách của nhà vua đề xuất vào cuối những năm 1880. Giọt nước cuối cùng làm tràn ly xảy ra vào đầu năm 1890 khi Bismarck cố gắng áp đặt bộ luật chống những người xã hội chủ nghĩa rất khó thực thi và không thực tế. Đa số trong nghị viện, là tập hợp của Đảng Bảo thủ và Đảng Quốc gia Tự do, nhất trí với nhau về phần lớn các điều trong bộ luật. Nhưng họ bị chia rẽ bởi điều khoản cho phép cảnh sát được quyền trục xuất những người xã hội chủ nghĩa tìm cách kích động quần chúng, một điều luật có thể bị Bismarck lạm dụng để chống lại các đối thủ chính trị của ông. Những người quốc gia tự do từ chối bỏ phiếu thông qua điều luật đó, trong khi những người bảo thủ chỉ chấp nhận việc thông qua toàn bộ đạo luật bởi lẽ Bismarck không muốn thay đổi bất kỳ điều khoản nào.

Bismarck, vào cuối những ngày làm chính trị.

Trong khi cuộc tranh cãi chưa có hồi kết, Wilhelm II ngày càng chú ý hơn đến các vấn đề xã hội, đặc biệt là cách chính quyền đối phó với cuộc đình công của những công nhân mỏ vào năm 1889. Nhà vua muốn duy trì một chính sách năng động cho chính phủ của ông và thường xuyên va chạm với Bismarck về các vấn đề xã hội. Bismarck hoàn toàn không đồng ý với chính sách của Wilhelm II và dùng mưu mẹo để phá vỡ kế hoạch của nhà vua. Mặc dù Wilhelm II ủng hộ bộ luật chống chủ nghĩa xã hội thay thế, Bismarck quyết định vận động để bộ luật bị phủ quyết. Ông muốn kích động những người xã hội chủ nghĩa tiếp tục đấu tranh cho tới khi bạo lực bùng phát và sẽ lấy đó làm cớ để đàn áp họ thẳng tay. Wilhelm II trả lời rằng ông không muốn bắt đầu thời đại trị vì của mình bằng một cuộc tắm máu. Sau câu trả lời của nhà vua, Bismarck nhận ra ông đã sai lầm và cố thỏa hiệp với Wilhelm II bằng cách đồng ý với các chương trình xã hội nhắm vào công nhân công nghiệp và thậm chí đề xuất một hội đồng châu Âu cùng xem xét các vấn đề điều kiện lao động do hoàng đế Đức chủ trì.

Bismarck trong sinh nhật lần thứ 80, ngày 1 tháng 4 năm 1895.

Bất chấp sự nhượng bộ đó, những sự kiện nối tiếp nhau dần dần khiến khoảng cách giữa ông và Wilhelm II ngày càng giãn rộng. Bismarck, cảm thấy bị áp lực và bị hoàng đế coi thường, ngày càng suy yếu bởi những cố vấn quá tham vọng, từ chối ký một tuyên bố liên quan tới việc bảo vệ quyền lợi cho người lao động cùng Wilhelm II (theo hiến pháp Đức, một văn bản chỉ có hiệu lực sau khi được cả vua và thủ tướng ký). Việc này là nhằm phản đối sự can thiệp của Wilhelm II đối với quyền lực vốn trước đó không ai dám thách thức của ông. Bismarck còn tiến hành những vận động hậu trường để phá hoại hội đồng lao động châu Âu lục địa mà Wilhelm dày công vun đắp.

Quan hệ trở nên tồi tệ hơn khi Bismarck tìm kiếm đa số phiếu ở nghị viện hòng áp đảo nhà vua trong đạo luật chống chủ nghĩa xã hội. Ngoài bộ phận "Kartell" ủng hộ Bismarck trong nghị viện, các thế lực khác bao gồm Đảng trung dung Thiên Chúa giáo và Đảng bảo thủ. Bismarck muốn thành lập một liên minh với Đảng trung dung và đã mời Ludwig Windthorst, người đứng đầu nghị viện, tới để thảo luận. Đó là âm mưu chính trị cuối cùng của ông. Wilhelm II nổi giận khi được tin về cuộc gặp gỡ đó. Ở một nhà nước nghị viện cộng hòa, đó là việc bình thường khi thủ tướng phải dựa vào đa số cũng như sự tín nhiệm ở nghị viện để vận hành chính phủ của ông và giúp các quyết định được thông qua. Tuy nhiên, ở nhà nước quân chủ nghị viện Đức, thủ tướng chỉ phụ thuộc vào sự tín nhiệm của hoàng đế và Wilhelm II tin rằng ông phải được thông báo trước khi những cuộc gặp gỡ như thế diễn ra. Sau một cuộc gặp căng thẳng trong văn phòng của Bismarck, Wilhelm II nổi điên và ra lệnh hủy bỏ điều luật tổ chức nội các có hiệu lực suốt từ năm 1851. Điều luật đó quy định các bộ trưởng trong nội các Phổ không được báo cáo trực tiếp lên nhà vua, mà phải báo cáo cho thủ tướng trước. Bismarck, bị đẩy vào tình thế không thể làm gì khác, viết một lá thư từ nhiệm đầy căm phẫn trong đó ông chỉ trích sự can thiệp của Wilhelm II vào chính sách đối ngoại và đối nội. Lá thư đó chỉ được công khai sau khi Bismarck đã chết. Rốt cuộc, Bismarck trở thành nạn nhân của chính những gì mà ông tạo ra. Bismarck thậm chí đã nhờ tới ảnh hưởng của hoàng thái hậu Friedrich, nhưng ông vẫn không thể thay đổi được quyết định của nhà vua.[31]

Bức biếm họa nổi tiếng Dropping the Pilot của họa sĩ Anh John Tenniel vẽ năm 1890 mô tả sự kiện Bismarck từ chức

Bismarck từ chức ở tuổi 75. Người kế nhiệm ông ở cương vị thủ tước Đức và thủ tướng Phổ là Leo von Caprivi. Để an ủi, ông được phong hàm đại tướng và quyền tư lệnh chiến trường (vì trong thời bình nước Đức không có tư lệnh chiến trường) và một danh hiệu quý tộc mới, công tước xứ Lauenburg. Ông còn được bầu làm đại biểu của Hamburg ở nghị viện, nhưng trong lần bầu cử thứ hai, ông bị thua một đối thủ dân chủ xã hội và trên thực tế không bao giờ ngồi ở nghị viện. Sau đó, Bismarck thực sự nghỉ hưu hoàn toàn tại điền trang Varzin (nay thuộc lãnh thổ Ba Lan) của mình. Một tháng sau khi vợ ông qua đời vào ngày 27 tháng 11 năm 1894, Bismarck chuyển tới Friedrichsruh, gần Hamburg và chờ đợi trong tuyệt vọng việc được gọi lại làm cố vấn cho chính phủ mới.

Ngay khi Bismarck phải rời vị trí của mình, dân Đức đã bắt đầu ca ngợi ông, gom góp tiền để xây những tượng đài như đài tưởng niệm Bismarck hoặc tòa tháp Bismarck-Denkmal để tưởng nhớ ông. Bismarck rất được trọng vọng ở Đức, nhiều tòa nhà được đặt theo tên ông. Nhiều quyển sách viết về ông thuộc loại bán chạy nhất. Ông cũng là đề tài ưa thích của các họa sĩ nổi tiếng.

Bismarck qua đời ngày 30 tháng 7 năm 1898 ở tuổi 83 tại Friedrichsruh, cũng là nơi ông được chôn cất. Trên bia mộ của ông là dòng chữ "Bầy tôi Đức trung thành của hoàng đế Wilhelm I".